Friedrich Krupp (1787 Ném1826) đã phát động các hoạt động kim loại của gia đình, xây dựng một xưởng đúc thép tiên phong ở Essen vào năm 1810. Con trai của ông Alfred (1812-1887), được biết đến với cái tên "Vua pháo" hay "Alfred Đại đế", đã đầu tư rất nhiều vào công nghệ mới để trở thành nhà sản xuất con lăn thép quan trọng (dùng để chế tạo dụng cụ ăn uống) và lốp xe lửa. Ông cũng đầu tư vào các công nghệ lò sưởi chất lỏng (đáng chú ý là quy trình Bessemer) và mua lại nhiều mỏ ở Đức và Pháp. Một điều không bình thường của thời đại đó là ông cung cấp các dịch vụ xã hội cho công nhân của mình, bao gồm trợ cấp nhà ở và trợ cấp y tế và hưu trí.

Công ty bắt đầu chế tạo pháo bằng thép vào những năm 1840, đặc biệt là cho quân đội Nga, Thổ Nhĩ Kỳ và Phổ. Nhu cầu phi quân sự thấp và trợ cấp của chính phủ có nghĩa là công ty chuyên về vũ khí ngày càng nhiều: vào cuối những năm 1880, việc chế tạo vũ khí chiếm khoảng 50% tổng sản lượng của Krupp. Khi Alfred bắt đầu với công ty, nó có năm nhân viên. Khi chết, hai mươi ngàn người làm việc cho Krupp, biến nó thành công ty công nghiệp lớn nhất thế giới và là công ty tư nhân lớn nhất trong đế chế Đức.

Krupp đã có một Tòa nhà Krupp vĩ đại với một cuộc triển lãm súng tại Triển lãm Columbia năm 1893.

Vào thế kỷ 20, công ty được lãnh đạo bởi Gustav Krupp von Bohlen und Halbach (1870-1950), người đảm nhận họ của Krupp khi ông kết hôn với người thừa kế Krupp, Bertha Krupp. Sau khi Adolf Hitler lên nắm quyền ở Đức vào năm 1933, các công trình Krupp trở thành trung tâm tái vũ trang của Đức. Năm 1943, theo lệnh đặc biệt từ Hitler, công ty đã trở lại thành chủ sở hữu duy nhất, với con trai cả của Gustav và Bertha, Alfried Krupp von Bohlen und Halbach (1907-1967) làm chủ sở hữu. Sau thất bại của Đức, Gustav đã già yếu và không có khả năng xét xử thường trực, và Toà án quân sự ở Đức đã kết án Alfried là tội phạm chiến tranh trong Phiên tòa Krupp vì tội "cướp bóc" và cho công ty của ông ta sử dụng lao động nô lệ. Nó kết án anh ta 12 năm tù và ra lệnh cho anh ta bán 75% cổ phần của mình. Năm 1951, khi Chiến tranh Lạnh phát triển và không có người mua nào mua lại, chính quyền chiếm đóng của Hoa Kỳ đã thả ông ra, và năm 1953, ông tiếp tục kiểm soát công ty.

Năm 1968, công ty trở thành một tập đoàn. Năm 1999, Tập đoàn Krupp sáp nhập với đối thủ lớn nhất là Thyssen AG; công ty kết hợp, Keith ThyssenKrupp, trở thành công ty lớn thứ năm của Đức và là một trong những nhà sản xuất thép lớn nhất thế giới.